Res$^2$CLIP: Few-Shot Generalist Anomaly Detection with Residual-to-Residual Alignment
Res²CLIP:基于残差到残差对齐的少样本通用异常检测
🧭 多模态异常检测 · 残差对齐
Beihang University · University of Science and Technology Beijing · Beijing Jiaotong University
将多模态对齐完全移入统一残差空间,同时解决跨粒度不匹配与跨类别泛化退化问题
📌 工作参考价值(4 点)
- 对于电商商品的少样本缺陷检测,可直接沿用残差对齐思路:冻结 CLIP 主干,仅在残差空间中学习可训练的文本/视觉提示,避免辅助数据集导致类别偏差,实现对新品类的快速适应。
- 在跨模态推荐(如文本-图像搜索)中,可借鉴残差空间对齐的设计:让模型关注相对差异而非绝对特征,提升未见品类的泛化能力;可设计对称的残差桥接损失,强化图文匹配的判别性。
- 微调 CLIP 做下游任务时,将优化约束在残差域可减少灾难性遗忘,保护开集泛化能力;此 trick 可用于商品描述生成、多模态知识图谱构建等需要保持开放世界能力的场景。
- 方法中的“残差预归一化”和“残差对齐损失”可拆解复用:前端用预归一化抑制正常样本的细粒度差异,后端用均方误对齐让模型聚焦异常偏差,两者结合可提升少样本下的异常区分度。